Recursa：迈向递归自改进的基础模型系统
🧭 Agent 多智体递归自改进 ★ 深度解读
Alibaba Research
构建知识仓库引导的多智能体递归自改进系统，无更强模型下将法律领域任务全对率最高提升至 55.0%
📌 工作参考价值（4 点）
- 可复用 harness 设计：给搜索/推荐/广告 Agent 使用 persistent Python REPL + append-only event log。召回、排序、筛选等中间结果留在 Python 变量，只把最终证据回传模型，长链路追踪不必全量进 context；故障诊断时按地址检索历史轨迹，避免上下文爆窗。
- 把领域知识沉淀为可加载 skills：电商新类目冷启动可以先构建类似导航结构，把类目规则、商家文档、商品属性约束浓缩为可加载技能包；每次任务后反思失败案例，将“该找什么证据”和“怎么判断证据是否充分”写成可叠加的 memory/skill，而不是每次从头探索。
- 多 learner 按失败模式拆分优化：不要用一个全局 prompt 大修。按类目、意图、失败原因或技能子集拆分任务，并行做局部改进后合并验证；合并后必须抽样回归已通过任务，避免新编辑造成退化。单 learner 很容易过拟合训练集，生产上推荐拆分+合并+回归。
- 利用无权重更新做快速迭代：在无法频繁微调推荐/搜索模型时，先通过文本化知识仓库快速迭代领域规则与策略，积累到一定程度再作为后续模型训练数据，这与生成式推荐里先沉淀 Semantic ID 或知识卡片再训练模型的路径一致。
从噪声、多样来源中学习高价值训练数据权重
🧭 训练数据加权 · 元梯度学习
Hiddenweights · Arena · UCLA · Stanford · CMU
用目标域小数据集元梯度优化训练样本权重，学得可泛化、可迁移的加权规则，提升奖励模型对噪声与合成数据的利用效率
📌 工作参考价值（4 点）
- 在电商/广告的 LLM 奖励模型或偏好对齐中，维护一个高质量目标域评测集（如人工标注的偏好对、业务 KPI 相关的判分），用元梯度自动学习每个训练样本的权重，替代手工噪声过滤规则，尤其适合点击日志、用户评论等噪声多样的数据。
- 参数化加权规则可以部署为流式数据选择器：对新到达的样本实时预测权重，做过滤或重采样，适合推荐系统的大规模 UGC、曝光点击日志等持续数据流，降低存储与训练成本。
- 合成数据与人工数据混合时不再依赖固定比例，而是学习每个样本的权重，让混合数据超过任一单独来源；可复用到生成式推荐的物品描述、query 改写、广告文案生成的合成数据利用场景。
- 先在小模型上学习数据权重规则，再迁移到更大模型，能显著降低大规模训练的数据清洗与调参成本，是一种工程上可行的 Data-Centric AI 方案。
深度融合记忆：大语言模型的块级参数化记忆
🧭 参数化记忆 · 隐藏层深度融合
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
提出块级参数化记忆DFM，训练数据构造检索量降低32倍，并深度融合进隐藏状态，无需在线检索
📌 工作参考价值（5 点）
- ### 对电商 / 广告 / Agent 的可借鉴点
- 在电商导购、广告文案或客服 Agent 中，需要给 LLM 注入领域知识（商品库、活动政策、广告规范）。DFM 提供一种冻结主干的参数化记忆方案：推理时无显式检索步骤，延迟低，比 RAG 更适合高 QPS 线上场景；可训练轻量 memory predictor + fusion 模块，把领域知识压缩进隐藏状态。
- 块级记忆监督是关键技巧：用 chunk embedding 作为预测目标，而非 token 级目标，训练数据构造的检索 query 可减少 32×、检索条目减少 2048×。业务数据量大、离线检索成本敏感时，优先考虑把知识切块并做块级记忆，能大幅降低知识注入成本。
- 门控 cross-attention 融合比输出层插值更深，能让知识影响中间表征；工程上可只插入少数层，冻结原模型，避免灾难性遗忘。适合给已有的推荐/Agent 底座模型做领域适配而不破坏通用能力。
- 可迁移到实时交互场景：让 memory predictor 根据对话或行为前文预测 chunk 级记忆，动态融合到解码过程，省去显式检索模块，简化架构并降低运维复杂度。
HuatuoGPT-3：从基础模型出发的纯RL领域自适应
🧭 RL-only 大模型领域自适应训练
The Chinese University of Hong Kong, Shenzhen · Shenzhen Research Institute of Big Data · Shenzhen Loop Area Institute · National Health Data Institute, Shenzhen
提出OnePO，以自适应目标演化和教师退休实现RL-only领域自适应，在医学上用20K样本超越SFT+RL和纯RL
📌 工作参考价值（3 点）
- 借鉴 Teacher Retirement 机制：在 RLHF/LLM 微调时，若策略模型在验证集上的奖励或质量指标已稳定超过教师/参考模型，可自动切换为纯 on-policy 采样，避免陈旧教师分布限制探索，适合推荐文案、搜索 query 扩写等生成任务。
- Adaptive Objective Evolution 中强化低概率但有信息量的 token（如商品卖点、数字、属性词），可迁移到电商文案生成或搜索增强，让模型更准确覆盖关键低频 token。
- 仅用 RL 从 base model 开始领域适应，可减少 SFT 对生成多样性的压缩，对推荐理由、对话式推荐等需要多样性的场景有参考；但工程上需要解决冷启动，可采用教师输出作为快速启动的辅助数据。
基于领域适配检索增强生成的金融合规自动化问答
🧭 RAG 领域适配与忠实性评估
University of Bonn · Lamarr-Institute for Machine Learning and Artificial Intelligence · Universitat Rovira i Virgili · Fraunhofer IAIS
用三阶段领域适配检索器与 RAFT-LoRA 微调紧凑模型，显著提升合规问答召回但暴露 grounding 评估缺口
📌 工作参考价值（4 点）
- 检索器领域适配可采用三阶段训练：entailment tuning 将 question-passage 匹配重构为 premise-hypothesis 重建，再用 in-batch negatives 做对比学习，最后与 BM25 做 score-level fusion，能大幅提升 Recall@10。
- 生成侧用 4-bit 量化的 2B-12B 小模型 + RAFT-LoRA 微调可提升答案质量，且对小模型收益更大；适合对延迟和成本敏感的场景，但需注意 RAFT 需要检索上下文。
- 评估 RAG 生成质量时，RePASs 这类综合分不能证明忠实性：闭卷模型得分与全 pipeline 仅差 0.011，却不引用且误报义务。业务中必须单独设计 grounding/citation 评估，不能只看端到端分数。
- 领域适配后的模型跨域迁移差（文中从 ADGM 规则到澳大利亚判例法失败），若业务要覆盖多法规/多语料，需分别适配或多任务训练。
领域特定的大语言模型幻觉检测
🧭 LLM幻觉检测与领域自适应
Purdue University Fort Wayne
多信号检测管线结合DeBERTa-v3、MC Dropout与DPO，实现通用与领域自适应幻觉缓解
📌 工作参考价值（4 点）
- 在电商问答、商品描述、推荐理由等 LLM 生成场景，可部署类似“微调 DeBERTa-v3 + MC Dropout + 温度缩放”的反应级幻觉检测器，作为生成内容上线前的置信度闸门；MC Dropout 推理可额外提升准确率但增加延迟，适合异步质检而非实时推荐链路。
- 标注预算有限时，可借鉴其学习曲线结论：25% 训练数据已获 77% 性能，垂直域可先用小样本微调快速验证，再决定是否扩充标注。
- 跨域迁移风险明确：通用域检测器在生物医学域 F1 仅 0.52，域匹配预训练模型微调才明显提升；业务上不能直接复用通用事实性检测器，应使用行业语料继续预训练或微调。
- DPO 用检测器分数作为偏好信号，将 Qwen2.5-0.5B 幻觉率从 85.5% 降至 37.7%，可尝试对推荐文案/客服回复生成器做类似对齐，减少不实信息。
通过下一概念预测迈向隐空间语言模型
🧭 下一概念预测 · 隐空间语言模型
Shanghai AI Lab · LUMIA Lab, Shanghai Jiao Tong University
在 8.9B 参数规模验证 NTP 与 Next Concept Prediction 联合训练，用 51.3% tokens 达到 OLMo-3-7B 最终 loss
📌 工作参考价值（4 点）
- 将 product quantization 作用于 hidden states 构建离散概念 vocab，可类比生成式推荐里的 Semantic ID，对 item/category/query 做多粒度 token-context 联合建模，让 LLM 在生成物品或搜索词时既有 token 级流畅度又有概念级语义约束。
- 只更新 17M 的 VQ module 即可实现域适配，适合电商多品类、多场景快速切换：固定底座，仅调整 codebook/概念映射，省去全参微调，便于线上迭代和 A/B 测试。
- 把 concept representations 注入 draft model 做投机解码，mean accepted length 提升 4.17% 且开销可忽略；在 Agent 工具调用、推荐理由生成等长文本输出场景可低成本加速推理。
- 联合 NTP + NCP 在同等算力下逼近或超过更强 baseline，提示大模型底座或领域微调时可加入概念级辅助目标，提升样本效率和 downstream 指标。
修辞角色感知的领域RAG：面向印度最高法院判决的法律问答
🧭 领域增强RAG · 修辞角色分块
National Institute of Technology, Tiruchirappalli · National Institute of Karnataka, Surathkal
提出修辞角色分块、混合检索与查询改写的领域RAG框架，提升法律多轮问答的上下文召回与答案相关性
📌 工作参考价值（4 点）
- 修辞角色分块可迁移至电商内容理解：对商品标题、详情、评论按修辞角色（属性、评价、场景）分块，提升检索与生成相关性。
- 多轮查询改写增强对话Agent：利用历史与意图分类进行查询改写，可解决电商导购、客服场景中的指代消解与意图漂移。
- 结构感知提升专业领域检索：提取文档中的实体（如法官姓名）类似电商中的品牌、规格，可作为稀疏特征加入检索或重排序。
- 混合检索与交叉编码器重排序：在商品搜索或推荐Agent中直接复用，融合稠密与稀疏检索信号，再用交叉编码器精排，成本可控且效果提升明显。
大规模参数化长期记忆模块：独立预训练与解耦扩展
🧭 参数化长期记忆与 LLM 解耦 · 独立扩展 ★ 深度解读
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Tsinghua University
将参数化长期记忆模块扩展至 6.9B 参数、300B 令牌预训练，小 backbone 搭配大记忆在多项基准上超越更大纯骨干模型且总参数更少
📌 工作参考价值（4 点）
- 记忆模块即插即用，适合多领域推荐系统快速迁移：预训练好的通用或领域记忆可以直接插在冻结的推荐模型（如同 backbone）上，仅需少量计算即适配新领域，避免全量微调，显著降低部署成本。
- kNN 分布蒸馏到参数模块，避免在线检索：电商搜索或推荐场景通常需要实时反馈，该方案将检索信号离线蒸馏为参数化记忆，推理时无需外部索引和检索，降低延迟和存储，可直接用于排序或召回的特征增强。
- 小 backbone + 大记忆的参数效率优势：在推荐模型中，可以用相对较小的主网络搭配较大记忆模块，在总参数受限时比单纯扩大主网络更高效，例如为轻量召回模型配备大容量记忆来提升冷门物品或长尾查询的覆盖。
- 记忆训练目标可提升训练数据可追溯性：论文中的抽取式记忆评估表明记忆能更精准还原训练样本，类似思路可用于推荐系统中关键行为或商品的记忆固化，帮助可解释性和合规审查。
仅有合成语音时，GRPO优于SFT
🧭 RL微调在合成数据域适应中优于SFT
Idiap Research Institute · EPFL · Uniphore · Brno University of Technology
在合成语音ASR域适应中，GRPO强化学习比监督微调大幅降低WER 40-45%
📌 工作参考价值（4 点）
- 当真实用户反馈昂贵或受限时（如冷启动、隐私保护），可使用合成数据 + GRPO 做策略优化，GRPO 无需 critic 网络，工程实现简单，适合在线 RL 或模拟环境下的 Agent 策略训练。
- GRPO 的组内相对奖励机制可类比推荐场景中的 listwise 优化：从一组多样化输出中选出低错误（高奖励）假设，抑制劣质输出，可借鉴用于生成式推荐/query 推荐的偏好对齐。
- 分析表明 GRPO 的增益来自行为校准（停止判据、注意力对齐）而非表示层变化，提示在 RL 微调推荐对话 Agent 时，可重点监控和优化行为指标（如终止时机、幻觉率），而非只关注隐层表示。
- 论文结论“当合成数据是主要资源时，RL 应优先于 SFT”可迁移到使用 LLM 生成训练数据的场景：用 SFT 预热后接 GRPO 可进一步榨取合成数据的上限。
基于神经元感知的主动少样本学习用于大语言模型
🧭 LLM少样本选择 · 内部表征利用
University of Pittsburgh
通过神经元激活模式替代输出层信号，同时考虑多样性和易幻觉样本，更有效地挑选少样本标注数据
📌 工作参考价值（4 点）
- 电商/搜索推荐场景中，若需用少样本示例将通用LLM适配到特定垂直领域（如商品分类、Query意图识别），可借鉴NeuFS的神经元激活模式筛选样本：用激活向量聚类保证样例多样性覆盖领域知识，同时通过神经元共识度量化样本的“易幻觉”程度，优先标注这类高信息量样本，减少人工标注量。
- 内部神经元信号比外部embedding（如SimCSE）更能捕捉模型自身知识缺口，在做LLM评测或诊断时，可以分析神经元激活分歧来定位模型在哪些Query/商品上更容易产生幻觉，进而针对性补充训练数据。
- 该方法依赖对LLM神经元激活的访问，对于仅提供API的黑盒模型不适用；但在自有部署的开源LLM上（如LLaMA），可将其集成到数据飞轮流程中，实现持续、低成本的模型垂直调优。
- 双准则选择策略（多样性+幻觉倾向）可解耦后单独使用：多样性准则可迁移到推荐系统的物品表征学习或Review示例选取；幻觉倾向量化可为对话式推荐Agent的回复可靠性评估提供信号参考。
将 Agentic Search 引入地球观测数据发现
🧭 Agent 驱动的搜索与重排序 ★ 深度解读
University of Maryland, College Park · University of Florida
利用论文-数据集引用图构建超大评估集，并通过 NN-SSC 域修正+BM25 融合及 Agentic 工具调用将检索精确率提升超 5 倍
📌 工作参考价值（4 点）
- 借鉴引用图谱构造评估集：如将用户实际购买/点击的物品作为 silver label，构建百万级 query-item 对，低成本获得高质量的离线评测数据。
- NN-SSC 轻量域适应：冻结通用 Encoder，仅训练一个 3 层 MLP 头（46 万参数）修正域偏移，可快速部署到任何已有向量召回服务上，成本极低。
- 混合检索的解析融合权重：利用训练集上各检索支路的性能之比（π_n/(π_ℓ+π_n)）自动计算融合系数 α，无需网格搜索，直接用于 BM25+向量分数的凸组合。
- Agentic 重排序提升 GMV：在候选集确定后，让 LLM 自主调用商品百科、用户问答、外部网页等工具补充上下文，可有效解决长尾 query 和歧义商品的排序问题，尤其适合高客单价决策场景。
面向对话推荐评估的快速域适应与细粒度用户模拟器
🧭 对话推荐评估 · 用户模拟域适应
Renmin University of China · Huawei Noah’s Ark Lab
提出自动提示优化与“先想后答”策略的用户模拟器 AdaptSim，实现跨域快速适应和风格可控的对话推荐评估
📌 工作参考价值（4 点）
- 离线评估对话推荐系统时，可借鉴“自动提示生成+开放动作空间”方案，减少针对新域的手动提示工程，快速构建域特定模拟器。
- “先想后答”（think-then-respond）策略将用户意图与语言风格解耦，可复用于电商对话 Agent 的行为模拟，实现多样化、真实的用户交互。
- 基于 BFS 的 turn 级成对比较评估框架，能更细粒度地诊断 CRS 各轮次回复质量，可用于电商导购机器人的迭代优化与鲁棒性检验。
- 若业务中存在多域（如服饰、家电）对话推荐场景，可利用 AdaptSim 的轻量域适应能力快速上线离线评估，减少对人工标注的依赖。
语言诱导先验的冷启动域适应框架
🧭 利用LLM文本先验指导冷启动域适应
用LLM将目标域文本描述转化为源选择先验，嵌入EM算法解决冷启动负迁移
📌 工作参考价值（4 点）
- 电商推荐场景冷启动物品/用户：若有文本描述（标题、属性），可用类似LIP的方法通过LLM生成对相似源域（如成熟品类）的偏好概率，减少迁移时的负迁移风险。
- 多智体协作中的经验复用：当任务用自然语言描述时，可借助LLM先验快速筛选相关历史任务数据，提升少样本策略学习效率。
- 与现有预估模型兼容：框架仅要求模型有似然函数，可无缝集成到CTR/CVR预估的线性或深度模型，无需改动结构。
- 工程实现轻量：先验可离线通过LLM计算文本嵌入相似度得到，在线阶段只是简单的概率加权，延迟可控。
Realiz3D：通过域感知学习实现照片级真实3D生成
🧭 解耦域与控制，缩小合成到真实域差距
解耦控制信号与视觉域，引入域协变量适配器，在保持真实感的同时实现3D可控生成
📌 工作参考价值（4 点）
- 商品图生成中，使用合成3D数据微调扩散模型时，可通过解耦控制信号（如视角、材质）与域指示符，避免生成图像变得“像渲染图”，保持照片级真实感。
- 引入可学习的残差适配器来编码域信息，是一种轻量多域融合方案，电商场景下可复用：一个基座模型，通过切换适配器生成不同风格（写实、插画、3D渲染等）。
- 针对扩散模型不同层和去噪步骤的分析启示：早期步骤负责全局结构，后期步骤聚焦纹理细节，可将几何控制注入深层，材质控制注入浅层，从而在不牺牲真实性的前提下提升可控性。
- 推理时可通过调整域适配器的权重，平滑插值于合成与真实域之间，实现可控的风格迁移，用于商品背景替换或虚拟试穿场景。